英伟达梦魇！瞄准27B、冲击1万 tokens/s，Taalas 即将发布新一代Agent专用ASIC
导读：David Hendrickson撰文称Taalas 即将于4月26日发布一款面向 27B 级别模型 的 ASIC 硬件,相对于只支持8B的HC1，这款"HC2"本地大模型推理性能将达到 1 万 tokens/s。如果这个性能目标成立，那它就不是一张常规意义上的推理加速卡，而是一套把中型Agent专用大模型直接固化为一个专用计算平台。
这件事真正值得看的，不只是新产品发布时间，也不是又多了一张 AI 板卡。
而是Taalas 正在把“模型硬化”这条路线，从 8B 级别的验证态，推到 27B 级别的产品态。
如果说 HC1 证明的是“模型可以被硬化进硅里”，那这次 27B 级别的新产品，真正要证明的，就是中型高质量模型已经开始拥有自己的硬件形态。
这不是 GPU 路线上的一次常规演进。
更像是在回答一个很现实的问题：
当模型已经足够强、足够会干活，同时系统代价又还没有失控的时候，是否值得直接为它造一台机器。
27B 正是这个问题第一次真正成立的尺寸。
从8B到27B，Taalas在重写推理系统
HC1 的意义很大，但它更像第一次技术宣言。
它证明了模型不一定只能以“权重文件 + 外部显存 + 通用加速器”的方式存在。
它也可以直接进入硅，成为硬件结构的一部分。
但 8B 终究还是一个偏验证型的量级。
它足够让人看到方向，却还没有真正踩进工业系统和企业流程最有价值的那一层。
27B 就不一样了。
27B 已经不是“能不能跑”的问题。
它讨论的是：
能不能承担复杂流程。
能不能稳定调用工具。
能不能处理长链路任务。
能不能在企业和工业现场真正接住执行责任。
所以，这次 27B 级别 ASIC 的意义，并不只是规模放大。
它意味着 Taalas 正在把“模型硬化”从 demo 区间推进到产品区间。
这件事一旦成立，行业对 ASIC、推理服务器、模型部署和 Agent 基础设施的理解，都会发生变化。
HC1真正改写的不是速度，而是推理系统的组织方式
我一直觉得，Taalas 不能简单理解为一家 AI 芯片公司。
它更像是在做“模型原生计算机”。
今天通用推理系统的问题，并不只是算力不够。
真正的问题在于，计算和存储是割裂的。
模型权重在外面。
KV cache 和状态在外面。
硬件每做一步推理，都在不停地搬数据。
模型越大，系统就越依赖 HBM、先进封装、高速 I/O、板级供电、散热和越来越重的软件栈。
从系统视角看，今天很多大模型推理平台，本质上是在用巨大的工程代价，去补偿 memory wall。
Taalas 的路线非常激进。
它不是继续优化“怎么搬”。
而是尽量取消“为什么还要搬”。
HC1 已公开的架构表述非常关键：
模型和权重被固化进 mask ROM recall fabric，再配合 SRAM recall fabric 去处理 KV cache、adapter 和定制逻辑。HC1 公开参数则是 TSMC 6nm、815 平方毫米、530 亿晶体管，首发直接装下 Llama 3.1 8B，单用户吞吐做到 17K tokens/s。
这意味着，Taalas 并不是在一颗通用张量芯片上跑一个模型。
而是在做一颗“模型就是硬件结构”的芯片。
这件事的本质，不是优化器层面的小修小补。
而是把推理系统的瓶颈，从“片外搬运”往“片上执行”重新推回去。
这也是为什么 HC1 看上去已经不像传统意义上的推理卡了。
它更像一台只为一个模型服务的专用计算机。
为什么工业落地可以下放到27B
我越来越强烈地感觉到，工业落地对模型规模的要求，和很多人想象得完全不同。
工业现场不是开放世界考试。
不是让模型去和人类比百科全书式知识广度。
也不是拿来追求极限泛化的“超级大脑”。
工业现场更像一台由规则、流程、接口、数据库、日志、状态机和异常分支拼起来的复杂机器。
模型进入里面以后，真正要做的事情并不神秘。
它要读文档、查规则、调工具、看工具返回结果。
还要基于结果继续执行、必要时回退，最后把事情做完。
在这种链路里，模型规模当然重要。
但它的重要性是有上限的。
一旦模型已经具备足够好的指令跟随、工具调用、代码理解、上下文整合和多步执行能力，继续无上限放大参数，收益会明显边际递减。
而成本、延迟、能耗、部署复杂度、维护复杂度，却还会继续上升。
这就是为什么我非常认同“大模型规模开始下放到 27B”这件事。
这不是能力退化。
这是产业逻辑成熟。
因为工业现场真正买单的，从来不是“最强模型”这个抽象概念。
工业现场买单的是几件更现实的事：
这个模型能不能稳定干活。
能不能在本地部署。
能不能长期上线。
能不能压低系统成本。
能不能和现有流程系统对接。
能不能在一个成本、功耗可接受的硬件形态里被复制。
27B 的价值恰恰在这里。
它已经越过了能力门槛。
但还没有重到让整个系统失控。
从工程角度看，这不是妥协。
这反而是第一次真正尊重现实的系统实现。
27B甜点位：能力够强，代价可控
我觉得这一代 27B 模型最关键的变化，不是“参数到了 27B”。
而是它开始明显进入Agent可用、“执行型模型”的区间。
这个判断不是空的。
最近，有人围绕 Qwen3.5-27B 做了一组非常贴近真实执行链路的测试：15 个场景、12 个工具、mocked responses、temperature 0。在这类 tool-calling 测试里，Qwen3.5-27B 做到了 15/15。这件事的价值，不在于又拿了一个 benchmark 分数，而在于它说明 27B 级别的模型已经在“调用工具—读取返回—继续执行”这条链路上，表现出了足够强的稳定性。
Qwen 3.5 Family Toolcall能力测评
这和工业落地的需求是同一件事。
工业和企业环境真正缺的，并不是一个会说漂亮答案的模型。
真正缺的，是一个会拿着工具把事情做完的模型。
它要会查库。
会调 API。
会操作浏览器。
会读日志和工单。
会写脚本。
会根据工具返回结果继续往下走。
还要在长链路里保持状态一致。
这时候，模型的价值就不再只是“回答问题”。
而是“承担执行责任”。
一旦模型开始承担执行责任，硬件形态就必须跟着变化。
因为系统价值的决定因素，已经不是单纯 token 成本。
而是端到端执行吞吐、延迟抖动、状态一致性、稳定性和部署成本。
这正好是 Taalas 这条路线最有杀伤力的地方。
它不是在把 token 做便宜一点。
它是在试图把“执行型模型”变成一台稳定的机器。
从模型结构看，27B适合被硬化
如果只是把 27B 看成“中等参数量”，其实会严重低估它。
真正关键的是，Qwen3.5-27B 这种模型，不只是参数大小合适。
它的结构也很适合做软硬件协同。
第一，它是 dense 模型，不是 MoE。
这点对 ASIC 特别重要。
MoE 在软件世界里当然很诱人，因为激活参数少，推理看起来更经济。
但到了硬件世界，问题就完全变了。
MoE 带来的不是简单的参数节省。
而是专家路由、缓存热点、负载不均、片间通信、时序复杂度和调度复杂度。
这些问题在 GPU 上可以用堆资源、堆 runtime、堆系统工程的方式去压。
但如果目标是把模型本身做成硬件，dense 反而更干净。
它的数据流更稳定。
层间关系更稳定。
流水更容易拉直。
时序更容易压实。
从硬件设计视角看，dense 模型的“规整”本身就是巨大优势。
第二，Qwen3.5-27B 的结构不是传统 full attention 直线堆叠。
它大量采用 Gated DeltaNet，只在部分层保留 Gated Attention。这种混合布局意味着，不是每一层都按最重的 full attention 路径去消耗状态和带宽。对 ASIC 来说，这非常关键，因为它直接影响片上 SRAM 规划、状态组织方式、带宽预算和整卡功耗。
第三，它已经具备成熟的 agent 使用范式。
这点很重要。
有些模型适合做 benchmark。
有些模型适合做 demo。
但不是每个模型都适合被做成产品。
一个值得被 ASIC 化的模型，至少要同时满足三件事：
能力上，得真的能干活。
结构上，得能规整地映射到硬件数据通路。
软件生态上，得已经形成可复用的执行范式。
27B 落在这个点上，非常老到。
这张卡大概率不是单die
这里真正值得深挖的，是 27B 这款硬件大概率会长成什么样。
如果只按最粗糙的方式，把 HC1 做线性放大，其实很难成立。
HC1 已知是 8B 级别模型硬化，单 die 815 平方毫米，530 亿晶体管，N6 工艺。
如果把这个架构原样拉到 27B，不只是面积不优雅，良率、封装、功耗和板级供电都会迅速恶化。
所以我更倾向于一个判断：
27B 这款产品大概率不是单 die 方案，而是单卡双 die，或者“模型硬化 die + 状态/缓存 die”的协同方案。
这个判断并不是拍脑袋。
它来自几个很现实的约束。
第一，HC1 已经非常接近先进工艺大 die 的舒适边界。
继续做一个面积暴涨的超级单 die，并不是一个优雅的产品解。
第二，Taalas 这条路线的核心，本来就不是“一颗 die 无限制变大”。
而是“模型固化部分”和“可变状态部分”逐步做结构性分工。
第三，27B 模型本身已经进入一个很适合系统拆分的区间。
模型主体是相对稳定、可固化的。
状态和缓存则可以根据上下文长度、工具调用链和执行模式，做更灵活的板级配置。
从产品工程视角看，这种拆分非常合理。
也更接近一张真正可量产、可维护、可扩展的 ASIC 板卡。
HC2不会是HC1的线性扩展
如果让我基于 HC1 的公开路线做一个较保守的技术推演，我会这样看这张 27B 板卡。
最核心的部分，仍然会是 mask ROM recall fabric。
也就是说，27B 模型中最稳定、最不需要频繁改写的主干权重，大概率仍然会被直接固化进金属层或等价的高密度固化存储结构里。
这是 Taalas 路线的根。
如果这部分不保留，就回到了传统“外部存权重 + 通用张量计算”的老路上。
第二部分，会是一套更强的 SRAM recall / state fabric。
这部分的职责，不只是简单存 KV cache。
更可能会承接：
长上下文下的状态驻留。
少量全注意力层的状态组织。
工具调用链中的上下文拼接。
adapter、微调残差或少量可配置参数。
调度和执行控制相关的快速状态交换。
这部分其实决定了 27B 产品能不能从“快”变成“能干活”。
因为工业系统里真正难的，不是单 token 算得快，而是在复杂执行链里，状态组织能不能稳定。
第三部分，我怀疑还会有相当明确的 控制与调度平面。
HC1 面对 8B 时，很多事情可以靠高度定制流水硬吃。
但到了 27B，尤其是进入 agent / tool use 语境之后，单纯的张量流水已经不够描述整个系统了。
模型执行、工具等待、状态回灌、上下文拼接、异常回退，这些事情会把“推理卡”慢慢拉向“执行计算机”。
所以我不太相信 27B 这张卡只是“更大的 HC1”。
它更像是第一次把 Taalas 的模型硬化路线推向真正的系统级产品。
吞吐到1万tokens/s，意味着什么
8B 的 HC1 公开口径是 1.7w tokens/sec per user。
如果拿最粗糙的 dense 参数量去线性外推，27B 很容易掉到 5K 左右。
但如果这次 27B 产品的目标真是本地约 10K tokens/s，那它背后绝不只是“多堆一点面积”。
它至少意味着三件事同时发生。
第一，模型结构本身更适合压低状态成本。
Qwen3.5-27B 不是传统 full attention dense Transformer，这给系统释放了很大空间。
第二，板卡形态已经从“演示芯片”转向“产品芯片”。
也就是说，吞吐提升不一定来自单 die 更强，而可能来自板级并行、更合理的状态组织、更高效的控制平面和更好的供电散热设计。
第三，Taalas 已经不是在单纯追求峰值 token 吞吐。
它开始在追求另一件更难的事：
在执行型工作负载下，把吞吐、状态和稳定性一起做出来。
这点非常关键。
因为很多系统单看首 token 或短链路吞吐很好看，但一进入长上下文、工具调用、多轮状态链，性能和稳定性就会明显塌。
如果 27B 产品还能在这种条件下维持高吞吐，那它的工程价值会远大于单一 benchmark。
成本和功耗能击穿N卡吗？
这部分我觉得不能回避。
而且必须要算清楚。
如果完全基于 HC1 的公开尺度去做推演，27B 版本不可能是廉价玩具。
先进工艺、大面积 die、定制 mask、封装、测试、板级供电、散热，样样都不便宜。
如果它真走单卡双 die 或近似方案，那 BOM 里最重的部分，至少会包括：
两颗大面积模型相关 die。
较大规模的板载状态存储与支撑电路。
高质量供电系统。
强散热模组。
PCIe 板卡级封装与测试。
如果只看硬件制造和集成，BOM成本 大概率会落在 800 到 1600 美元之间。
这是基于 HC1 的公开架构、尺寸和 27B 产品形态做的一些推演。
功耗方面，如果 HC1 的 8B 已经进入高性能专用推理区间，那 27B 板卡若走双 die 或强状态系统配置，典型功耗会在300W 到 500W 之间。
这个数字看起来不低。
但要看比较对象。
如果它能把一个 27B 级别的执行型模型，以高吞吐、低延迟、本地稳定运行的方式塞进N卡里，那它的对象就是一整套 GPU 推理节点的系统成本。
从这个视角看，这个成本和功耗带并不夸张，反而有机会成为Taalas的杀手锏。
工业买单，因为它更像落地产品
我不觉得这种东西最先会在极客圈爆发。
真正会最先买单的，反而是那些模型固定、流程固定、质量要求固定、延迟要求也固定的场景。
比如工业运维、设备诊断、质检复核、工单流转。
比如浏览器代理、代码代理、测试代理。
比如边缘节点里的常驻自治 Agent。
这些地方未必要 200B、300B。
它们真正要的是：
一个足够强的模型核心。
一个足够稳的执行系统。
一个能被塞进现有业务架构里的硬件形态。
从这个角度看，大模型规模下放到 27B，不是降级。
而是第一次真正对产业效率负责。
也是第一次真正对硬件产品化负责。
结语
HC1 证明了，模型可以变成硅。
如果 Taalas 的 27B 级别 ASIC 顺利落地，证明的就不只是“可以把模型烧进芯片”。
它会证明另一件更有分量的事：
中型高质量模型，已经开始配拥有自己的计算机。
到那时，模型不再只是部署在机器里的软件。
模型本身，就是机器。
参考链接：
https://taalas.com/the-path-to-ubiquitous-ai/ https://taalas.com/products/ https://huggingface.co/Qwen/Qwen3.5-27B https://x.com/yoheinakajima/status/2036925869655216161 https://x.com/TeksEdge/status/2037395983647260843 https://zhuanlan.zhihu.com/p/2017234636586123860 https://mp.weixin.qq.com/s/ccr31W_S7tYXJekre2OhTQ
